Mechanistic Interpretability

6 articles in this category

← All Articles
Series 6 parts Mechanistic Interpretability

世界モデルの内部表現の解剖 — Transformer は環境の「地図」を獲得するか

小規模Transformer世界モデルの内部表現をMechanistic Interpretabilityの手法群で網羅的に解剖し、空間構造の内部再現・遷移ルールの段階的獲得・機能特化ニューロンの因果的寄与を実証

Transformer World Model Mechanistic Interpretability Linear Probing